Kako uhvatiti Bijelog Zeca?

„Alica, koja je ostala zdrava i čitava, za tili čas skoči na noge. Pogleda gore, ali je nad njom sve bilo crno i mračno; pred njom se opet pružio dug prolaz, a daleko u njemu bio je na vidiku Bijeli Zec, kojega je jedva mogla razabrati kako hrli i iščezava u daljini. Nije smjela ni časa časiti. Kao vjetar pojuri Alica i stigne u pravi trenutak da čuje Zeku kako zalazeći za ugao mrmori: „Oh, tako mi ušiju i brkova, ala ću zakasniti.“

Lewis Carroll, Alica u zemlji čudesa,
Mladost, Zagreb, 1989.

 ***

Početak Alicine pustolovine neobično nalikuje trenutnim razvojima koji se u vezi s umjetnom inteligencijom odvijaju u svijetu. Lansiranje ChatGPT-ja potkraj prošle godine globalnu je UI-utrku ubacilo u petu brzinu – od Microsofta preko Googlea pa sve do najmanjih IT-društava, svi žure da se pozicioniraju i uzmu što veći dio UI-kolača dok je vruć. Jedino što se, čini se, kreće brže od interesa za UI i napretka UI-tehnologije rastući je zazor od posljedica njezine sve učestalije primjene.

Kako regulirati nešto za što nismo sasvim sigurni kako funkcionira? / Ilustracija Canva

Nužnost postojanja regulative

Kad zamišljamo UI na djelu, teško je otrgnuti se apokaliptičnim prizorima robotskih vojski koje po nalogu samosvjesnih kompjutora preuzimaju Zemlju i istrebljuju čovječanstvo. No to je tzv. opća UI, a do nje još (srećom) nismo stigli. Većina sustava s kojima ste upoznati temelji se na uskoj UI, koja ljudsku inteligenciju može nadmašiti u određenim zadacima unutar pojedinog, ograničenog područja djelovanja. Od algoritama koji predviđaju buduće kupnje na internetu, preko prometne navigacije, pa sve do pametnih pomoćnika poput Siri ili Alexe, taj je UI uvelike već među nama.

No okolnost da Terminator-scenarij u skoroj budućnosti nije izgledan ne znači da su današnji načini primjene UI benigni. Pritom ne mislim samo na to da se možete opeći pri korištenju ChatGPT-a kad vam umjesto pravog, chatbot halucinira nepostojeći odgovor. Mnogo sustava o kojima ovise naši životi temelje se na UI, koja bi u pozadini mogla odlučivati o tome jeste li dobar kandidat za posao, hoćete li dobiti kredit i koju bi vam terapiju trebao preporučiti liječnik. Nimalo bezazlene stvari. Dovoljno ozbiljne, u svakom slučaju, da se postavi pitanje regulative.

Akt o umjetnoj inteligenciji

Stoga ukorak s utrkom za razvoj UI tehnologije traje i ona za njezinom primjerenom regulacijom. Vijeće OECD-a još je 2019. donijelo niz preporuka za UI, a iste je godine skupina G20 objavila Načela o umjetnoj inteligenciji. Vijeće Europe trenutno radi na izradi konvencije o UI, a SAD, Kina i brojne druge zemlje razmatraju donošenje nove i izmjene postojeće legislative kako bi regulirali lokalne UI-razvoje.

EU je najdalje odmaknula. U lipnju ove godine Europski je parlament potvrdio svoju poziciju u odnosu na predloženu Uredbu o utvrđivanju usklađenih pravila o umjetnoj inteligenciji (takozvani Akt o umjetnoj inteligenciji). Kulminacija je to višegodišnjih napora na razini Unije – Komisija je europsku Strategiju za umjetnu inteligenciju predstavila još u proljeće 2018, a njezin prijedlog Akta o kojem se trenutno raspravlja pred europskim institucijama datira iz travnja 2021.

Izradio Marko Picek / PIXSELL

Europski je pristup, također, najstroži. Akt je zamišljen kao uredba, dakle kao jedinstveni propis koji u cijelosti obvezuje sve države članice. Njime se uspostavlja relevantni pravni okvir za razvoj, stavljanje na tržište i korištenje UI na razini čitave EU. Dapače, prema trenutnom tekstu Akt bi faktički trebao biti primjenjiv i ekstrateritorijalno jer će biti relevantan za sav UI koji se stavlja na europsko tržište – bez obzira na sjedište tvorca.

Aktom se namjerava europsko UI-zakonodavstvo utemeljiti na tehnološki neutralnoj definiciji UI koja je precizna, ali ne toliko uska da isključuje neke od postojećih ili potencijalne nove tehnologije. Nimalo laka zadaća u svijetu u kojem općeprihvaćena definicija UI ne postoji. Dodatna je teškoća i okolnost da se UI temelji na izrazito složenim sustavima kojima ponašanje ponekad sa sigurnošću ne mogu predvidjeti čak ni njihovi tvorci – što je istovremeno i argument za njihovu što skoriju regulaciju i velik kamen regulatornog spoticanja. Kako ćete, naime, regulirati nešto za što niste sasvim sigurni kako funkcionira?

Rizici primjene UI

O tome različite stavove imaju čak i europske institucije uključene u zakonodavni proces. Akt se zato u odnosu na rizike koje primjena UI nosi za građane Unije fokusira na namjenu pojedinih sustava. Određene prakse u području UI potpuno se zabranjuju kao „neprihvatljive“ – subliminalne tehnike, rangiranje pojedinaca na temelju društvenog ponašanja i daljinska biometrijska identifikacija u stvarnom vremenu na javnim mjestima. U preostalom dijelu UI-sustavi rangiraju se ovisno o mogućem utjecaju na korisnike i društvo u cjelini, od visokorizičnih pa sve do onih minimalnog rizika, pri čemu su – logično – visokorizični sustavi opterećeni najstrožim obavezama kontrole kvalitete, zahtjevima transparentnosti i procedurama ocjene usklađenosti. Pojavom ChatGPT-ja i sličnih UI-sustava koji se ne daju klasificirati prema namjeni (jer se mogu koristiti za praktički bilo što), Europski je parlament morao proširiti pristup kako bi se u područje primjene Akta uključili i tzv. „UI-sustavi opće namjene“. Za dobavljače modela koji će biti korišteni kao tzv. „generativni UI“, odnosno sustava namijenjenih za generiranje složenih tekstova, slika i audiozapisa, propisuju se dodatne obaveze transparentnosti, te moraju objaviti jesu li se prilikom razvojne faze sustava koristili materijalima zaštićenima autorskim pravom i u kojoj mjeri.

O strogosti europskog pristupa reguliranju UI najbolje govore zaprijećene kazne za prekršitelje. Kao i u slučaju rizika, podijeljene su u nekoliko razina ovisno o težini povrede, no načelno su veoma visoke i kreću se od 5 pa sve do 40 milijuna eura, odnosno od jedan do sedam posto godišnjega globalnog prometa za pravne osobe. Nadzor nad time drže li se obveznici Akta trebao bi, ovisno o konačnom dogovoru EU-institucija, biti podijeljen između nacionalnih mjerodavnih tijela i jednog, centralnog novoosnovanog tijela na razini cijele EU koje bi u koordinatorskoj ulozi olakšavalo međudržavnu suradnju.

Finalizacija dogovora?

Kad bi dogovor na razini EU trebao biti finaliziran? Možda ste primijetili da stavovi europskih institucija u odnosu na neke važne točke Akta još nisu sasvim usklađeni. To čini odgovor na pitanje što nam slijedi u pogledu UI-regulative težim no što se na prvi pogled čini. Na formalnoj razini, trenutno se na razini Unije odvija tzv. trijalog relevantnih institucija u kojem Parlament, Komisija i Vijeće nastoje usuglasiti pozicije, sve kako bi Akt mogao stupiti na snagu do kraja 2023. Komisija, naime, želi spriječiti da zakonodavni proces potpadne pod političke pritiske nadolazećih izbora za Europski parlament u 2024. No to su želje i pozdravi, a u realnosti bi razilaženja među europskim institucijama mogla znatno oduljiti pregovore.

Dodatno, u tijeku dalje rasprave na razini EU ne treba isključiti ni pozamašnu količinu lobiranja od strane raznih, ponajprije tržišnih aktera. Brojni su glasovi koji tvrde da još nije vrijeme za tako strogo zakonodavstvo. Tvrde da će Akt zaustaviti rast i razvoj UI-inovacija u Uniji i oduzeti joj tržišnu prednost, a male i srednje poduzetnike opteretiti teškim obavezama koje neće moći ni provesti ni financirati.

Još je, dakle, mnogo neizvjesnosti o tome hoće li, kada i kakav Akt o umjetnoj inteligenciji stupiti na snagu u EU. Dapače, da se Akt i usvoji do kraja 2023, to i dalje ne bi značilo njegovu neposrednu primjenu, jer se trenutnim prijedlogom predviđa dvogodišnje razdoblje prilagodbe u kojem će provedba većine odredbi biti odgođena dok se ne stvore uvjeti za potpunu realizaciju Akta.

Prerano je stoga reći kako će u narednih nekoliko godina izgledati pravni krajolik UI. Jednom kad Akt stupi na snagu, zasigurno će biti sveobuhvatna i stroga regulativa, ali vjerojatno neće biti jedina u svijetu. Kad do toga dođe, svijet će trebati odlučiti hoće li prihvatiti taj prvi potez EU i krenuti smjerom usklađivanja, ili ga odbacivanjem pokušati relativizirati. U tom će trenutku postati jasno hoće li ono što će EU postići kao svjetski lider u UI-regulativi ujedno značiti i njezin gubitak na području tehnološkog i gospodarskog napretka.

Stephen Hawking jednom je rekao da će UI biti ili najbolja ili najgora stvar koja se desila čovječanstvu, a samo će vrijeme pokazati je li bio u pravu. Meni se čini da smo tek sišli niz zečju rupu i da je pitanje kada ćemo i kojim putem izaći na drugu stranu. Uostalom, još trebamo saznati iza kojeg nas zavoja čeka Bijeli Zec.